ข้ามไปยังเนื้อหา

แท็ก

#agent design

2 บทความ

ToolFailBench: งานวิจัยชี้ 'คะแนนรวม' ปิดบังว่าเอเจนต์ล้มเหลวเรื่อง tool use อย่างไร — แยกโหมดพัง 4 แบบ โมเดลเก่งสุดยังทำ Clean Tool-Use ได้แค่ 86%
งานวิจัย

ToolFailBench: งานวิจัยชี้ 'คะแนนรวม' ปิดบังว่าเอเจนต์ล้มเหลวเรื่อง tool use อย่างไร — แยกโหมดพัง 4 แบบ โมเดลเก่งสุดยังทำ Clean Tool-Use ได้แค่ 86%

เบนช์มาร์กใหม่ ToolFailBench (1,000 งาน, 5 โดเมน, 19 โมเดล) แยก 'ความล้มเหลวเรื่องเครื่องมือ' ของเอเจนต์ออกเป็น 4 โหมด แทนคะแนนรวมก้อนเดียว พบว่าโมเดลเก่งสุดยังทำ Clean Tool-Use Rate ได้แค่ 86.33% — และโมเดลที่คะแนนรวมใกล้กันกลับพังคนละแบบ Llama-3.1 มีนิสัย 'เรียกเครื่องมือตลอด'

· อ่าน 5 นาที
DiscoBench: งานวิจัยชี้ search agent ไม่ได้แพ้ตรงการค้นหา — แต่แพ้ตรง 'ไม่รู้ว่าเมื่อไรควรถาม'
งานวิจัย

DiscoBench: งานวิจัยชี้ search agent ไม่ได้แพ้ตรงการค้นหา — แต่แพ้ตรง 'ไม่รู้ว่าเมื่อไรควรถาม'

เบนช์มาร์กใหม่ DiscoBench (211 ตัวอย่าง, ambiguity 463 จุด, 11 โดเมน) พบว่า search agent ที่ขับด้วย LLM ล้มเหลวไม่ใช่เพราะค้นหาไม่เก่ง แต่เพราะไม่รู้ว่าเมื่อไรควร 'หยุดถามผู้ใช้' — และการเอาแต่ค้นซ้ำแทนที่จะถาม มักแย่กว่าการเดาตรง ๆ ด้วยซ้ำ

· อ่าน 5 นาที